济南：崛起的新媒体审核之都

来源：2019年4月18日《南方周末》

作者：南方周末记者  王伟凯  吴超

责任编辑：顾策   助理编辑  温翠玲

网络编辑：小夏

济南西站附近的济南报业大厦，因为交通便利、有媒体基因，成为新媒体内容审核业务的基地之一。

由于员工多，24小时不停工，零食、饮品供应齐全，字节跳动的审核员们生产了整栋楼里70%以上的生活垃圾。

在整个内容审核的产业格局上，天津、济南是北方的两大基地，西安是西北地区基地，重庆、成都负责西南地区，武汉则负责华中地区。

对二三线城市来说，互联网公司新媒体内容审核平台的落地，不仅可以拉动就业，还可以向外界展示自己的营商环境。当然，互联网公司也能在这里找到更便宜的人力和办公楼。

一夜之间，山东济南成了各大互联网公司内容审核平台扎堆之地。

2019年3月11日，人民网与济南市签署战略合作协议，将在济南建设共商、共建、共享、共赢的内容审核平台。字节跳动、凤凰网、一点资讯、最右APP等，也已经在这里建立审核基地。

越来越多的文字、图片、视频、直播将会先在济南汇聚，等审核通过后，再播往全国。

内容审核正逐渐成为一个新兴产业。人民网（603000.SH）将内容审核业务称为“内容风控业务”，是人民网四大业务之一。

内容审核员团队也在不断壮大。在互联网平台的背后，成千上万的年轻人用肉眼盯着电脑屏幕，每天浏览几千个文章、评论、图片、视频等，从里面过滤掉有害、违规的内容。他们分布在天津、济南、武汉、西安、重庆、成都等二三线城市，拿着四五千元的工资，24小时轮班不停作业。

对二三线城市来说，互联网公司新媒体审核平台的落地，不仅可以拉动就业，还可以向外界展示自己的营商环境。当然，互联网公司也能在这里找到更便宜的人力和办公楼。

济南的胜出多少有些让人意外。此前，天津曾有“内容审核之都”的称号，字节跳动就曾将内容审核业务放在天津。

但在2017年，字节跳动成立了济南超准信息技术有限公司，负责今日头条、抖音的内容审核工作。根据公司介绍，济南将会成为字节跳动继北京之后全国第二大运营中心，人员规模将会达到3600人。

齐聚济南

“我们整栋楼里，一天下来会有18桶垃圾，其中有13桶是头条的。”铭盛大厦一位物业工作人员向南方周末记者打趣。

铭盛大厦位于济南市东部的高新区，共有26层，其中的5、6、7三层是字节跳动内容审核员的办公场地。据上述工作人员介绍，3层楼占地2000平方米，大约容纳了2000名内容审核员。

由于员工多，24小时不停工，零食、饮品供应齐全，字节跳动的审核员们生产了整栋楼里70%以上的生活垃圾。

字节跳动的内容审核部门叫做“内容质量中心”。在济南，他们的审核员岗位均位于高新区内，除了铭盛大厦之外，还有鑫盛大厦、万达中心3号楼。这三栋楼相距在2公里以内，附近有万达广场、美菱广场等，是整个高新区里最热闹的地方。

字节跳动在全国各地的内容审核基地被称为“内容质量中心”，图为济南市高新区铭盛大厦的内容质量中心。（南方周末记者 王伟凯/图）

字节跳动的内容质量中心2017年在济南落地。但他们并不是第一家在济南成立内容质量中心的互联网公司。

2015年，位于济南高铁西站附近的济南报业大厦落地建成，两栋24层的大厦成了一些内容审核团队青睐的地方。2016年7月，凤凰网新闻监控中心入驻济南报业大厦，成为最早把审核业务放在济南的知名互联网公司。

2018年7月，一点资讯也将审核团队放在济南报业大厦，目前他们的人员规模为300人左右。

济南市市中区的绿地中心则是人民网内容审核平台所在地。那里是济南市第一高楼，位于济南市中心的黄金地段，周边有千佛山、大明湖、趵突泉等旅游胜地，距离山东电视台仅15分钟车程。

由于互联网公司的内容审核团队最早是落户在济南报业大厦，济南市政府原副秘书长、济南日报社原社长孙元文被称为是将内容审核团队引入济南的第一人。

孙元文向南方周末记者表示，这属于是一个“歪打正着”的结果。2015年12月，两栋报业大厦建成之后，济南日报社并不需要那么多的办公空间，于是就希望将空闲的办公空间对外出租。

“当时就在讲媒体融合，作为传统媒体，要多向互联网公司学习，光看还不行，干脆就一起办公吧。”孙元文当时担任济南日报社社长，他首先引进的是当地知名物联网公司山东开创集团，但开创集团是一个比较垂直的IT企业，与媒体业务还有不小的距离。后来，他又将凤凰网招了过来。

刚开始时，凤凰网在大厦里入驻的只有山东频道的运营团队，后来才逐渐将内容审核团队带过来。一点资讯在济南的运营中心也是由凤凰网给介绍过来。

凤凰网、一点资讯等媒体平台的入驻，在济南无意间形成了一个产业集聚效应，字节跳动、人民网等公司也将内容审核业务搬到了济南。这在当时，孙元文也没有意料到。

在外界看来，租金低、交通便利、人力成本低是济南吸引互联网内容审核团队的主要原因。

孙元文记得，凤凰网一位副总裁来报业大厦考察，早上8点钟从北京出发，9点半就到了地方，办完事中午吃个午饭，下午两点钟又回去开会了。

在租金成本上来看，据铭盛大厦物业运营人员介绍，这座大厦目前有一个338平方米的办公场所正在对外出租，一年的房租、物业费、水电费约为35万元。这个价格在北京五环外只能租到200平米的办公场所。

在人力成本上，根据智联招聘上的数据，济南的内容审核员工资在4000—6000元之间，北京的工资则是5000—9000元之间。

“济南有48所大学、72万大学生，且山东人受儒家文化影响，忠诚度高，跳槽率低；这几年，济南通过治堵治霾和创建文明城，环境大为改善，人才吸引力明显提高；同时济南有浪潮、中创、韩都衣舍等几个著名互联网公司，受到青睐也就顺理成章了。”孙元文向南方周末记者分析。

“签了保密协议”

济南的夜生活比较短暂，晚上10点之后就鲜有门店营业。

但在2019年4月3日晚上11点，济南市高新区的万达中心3号楼，其中四层办公楼却灯火通明，那里是字节跳动一个内容审核基地。

几个年轻人在3号楼楼下抽烟，他们兴致很高，讨论下晚班后去哪里吃烧烤，但是闭口不谈自己的工作。

“我只有十分钟的时间，并且签了保密协议，不能聊太多。”沈杰说。这是他上的第一个夜班，此后每个月他都要轮几次大夜班。

沈杰做的是抖音国际版的审核工作，国际版用户多是中国人，所以对审核员的外语水平要求并不是太高。和很多同事一样，沈杰的学历也是个专科。这份工作给他留下最深刻的印象就是要上夜班。

“面试官问你能不能熬大夜，你一定要说能，如果你再说经常打游戏熬通宵，不用面了，直接过。”说完这句，跟他一起抽烟的几个同事都笑了起来。有一个同事搭腔，说自己不上班平时晚上也都睡不着，对他来说，这是一份非常适合的工作了。

年轻、有精力、能熬夜，是这个群体主要的特征。这个工种对应聘者的工作经验没有要求，学历则要求是大专，无论此前做过什么，简单培训之后就能上岗。

一位曾在字节跳动内容审核部门实习过的山东大学毕业生告诉南方周末记者，虽然济南很多大学生会选择做内容审核员，但基本上是二本或者专科学校的学生，山东省内的几个一本学校的学生并不愿意从事这份工作，主要是觉得没有技术含量，学不到东西。

内容审核员们每天要对大量的文字、图片、视频内容进行审核，这些内容中不乏暴力、色情、低俗、违背伦理的内容，这会给他们带来巨大的精神压力。

在国外，审核员甚至会因此起诉自己的东家。据外媒报道，2018年9月，一位前Facebook的内容审核员就起诉了Facebook，指控Facebook每天让内容审核员们面临数千份虐待儿童、强奸、酷刑、斩首、自杀、谋杀等方面的视频、图片与直播，审核员的心理受到了极大的创伤。

但南方周末记者采访内容审核员获知，他们要审核的内容主要以新闻为主。

陈鹏是字节跳动在济南内容审核团队的一位行政人员。据他介绍，他们在对审核员进行招聘时，主要问的问题就是时政类新闻、相关人员的名字、近期发生的重大新闻等。招聘通过之后，还会经常进行培训，以加强审核员的意识。

不过，网络上众多低俗、暴力、色情的信息，依然会冲击着这些年轻人的三观。

“看完那些评论之后，我都在想，我以后还要不要结婚，还要不要生孩子，怎么会有那么多的人那样想问题？”2017年7月大学毕业后，刘蓉就加入了一点资讯在济南的运营中心，成为一名内容审核员。

2017年8月31日，陕西省榆林市发生了一起全国关注的产妇跳楼事件。刘蓉当时负责的是网友评论的审核，她看到大量的吃瓜群众站在大男子角度来评论此事。她当时就在想，女人怎么这么可怜，连怎么生孩子都不能做主，死后还要被各种人嘲讽。

她当时非常想把这些评论给过滤掉，但由于并没有违背审核标准，她还是极不情愿地将这些评论放出去。

2019年4月3日晚上11点，周边的建筑都已经熄灯歇业，但济南市高新区万达中心3号楼的4、5、6、7四层楼仍灯火通明，那里是字节跳动的一个审核基地，24小时不停运作。（南方周末记者 王伟凯/图）

争夺互联网公司

在中国的内容审核行业版图上，济南并不是最突出的一个。

早在2011年，就有媒体将天津称为“中国新媒体的内容审核之都”。一直以来，天津都被众多互联网公司所青睐，字节跳动、快手、优酷等多个知名互联网公司最大的内容审核中心都建在这里。

除了天津之外，武汉、西安、盐城、重庆、成都等，也分布着不少内容审核团队。公开资料显示，字节跳动在全国共有6个内容质量中心，分别位于北京、天津、济南、西安、成都、龙岩。其中，福建龙岩市是张一鸣的老家。

在整个内容审核的产业格局上，天津、济南是北方的两大基地，西安是西北地区基地，重庆、成都负责西南地区，武汉则负责华中地区。

不过，济南的重要性正在凸显。除了拥有低廉的人力、租金之外，济南能够受到各大互联网公司的青睐，与本地的政策支持也有不少关系。

据孙元文介绍，他曾经也与字节跳动接触过，希望将字节跳动吸引到位于槐荫区的济南报业大厦那里。但最终却被高新区给截了和（广东话，就是截胡了的意思），高新区给了字节跳动更为优惠的政策。

一位接近济南市政府部门的人士向南方周末记者介绍，济南市委宣传部、网信办对内容审核这个产业总体上是支持的，人民网、字节跳动、凤凰网、一点资讯等公司内容审核团队的入驻，都获得了一定的政策支持。

2019年4月2日、4日，南方周末记者两次前往济南市和高新区有关部门采访，但截至发稿，均未获得答复。

地方政府将这些互联网公司的内容审核团队引进过来，除了解决就业问题外，也有助于地方政府更好地处理舆情问题。

2017年12月13日，济南市天桥区委常委、宣传部部长张建明到今日头条山东分公司进行调研时，双方就加强合作、坚持正确舆论导向等方面展开了深入探讨和交流。

此外，内容审核团队的入驻，也为地方政府与这些大型互联网公司建立了一个良好的沟通通道，吸引这些公司更核心的业务在此落地。

在北京提出“非首都功能”战略之后，二三线城市都摩拳擦掌准备好承接大型互联网公司的其他业务，吸引“第二总部”在他们那里落地。

作为一座老牌工业城市，济南最近几年一直在强调“新旧动能转化”的问题，希望寻求新的经济增长点，迫切地希望在互联网、信息技术等新兴领域找到突破口。

山东省出台了《新一代信息技术产业专项规划（2018—2022）》、《数字山东发展规划（2018—2022）》等，济南也出台了《济南市“互联网+”行动计划（2016—2018）》、《促进先进制造业和数字经济发展的若干政策措施的通知》等。

字节跳动刚进济南时，入驻的是铭盛大厦，该大厦另外一个名称是“山东大数据产业基地”，据铭盛大厦的物业人员介绍，入驻这座大厦的企业，多与大数据产业相关。

资料显示，“山东大数据产业基地”总投资17亿元，是济南市十大产业重点项目之一，它所属的类目是“大数据与新一代信息技术产业项目”。大数据与新一代信息技术产业，又是济南市重点布局的十大千亿级产业之一。

内容审核：快速膨胀的新职业

也许人工智能、大数据会帮助互联网公司过滤掉一些违规内容，但大部分内容涉审核工作依然需要依靠人海战术。

人民网称，内容风控行业是一个新兴的领域，他们希望在未来把内容风控定义为一个新的职业。

海量审核业务

中国互联网行业的内容审核员被广泛关注，源于2018年4月快手的一次突然招聘。

当时，央视点名快手，称在快手上有大量“未成年妈妈”的短视频，为了吸引眼球，这些视频晒出了妈妈们的年龄、孕期、怀孕状态以及一些露骨的照片视频。

一直贴着低俗、露骨标签的快手，在那时遭遇了前所未有的舆论危机，他们的APP甚至被应用商店下架。

随即，快手宣布，为了加强审核能力与内容上传量的匹配，快手将2000人的审核团队扩充为5000人。

字节跳动也遭遇了同样的危机。2018年4月，他们旗下的“内涵段子”因为内容低俗、导向不正等问题而被永久关闭。字节跳动创始人张一鸣公开道歉，并且承诺将新招聘4000名内容审核员，以加强对内容的审核。

一位今日头条内部人士向南方周末记者表示，无论是今日头条、快手还是其他内容、视频、直播平台，内容审核的工作已经变得至关重要，都投入了巨大的人力、物力。

一位快手内部人士告诉南方周末记者，快手目前有8000员工。这意味着内容审核员的比例就超过一半。

南方周末联系快手公关希望做采访，但是被婉拒，字节跳动也拒绝了南方周末记者的采访。

2019年1月9日，中国网络视听节目服务协会发布《网络短视频平台管理规范》和《网络短视频内容审核标准细则》，短视频上的弹幕、评论也要进行审核。

内容审核的需求激增，源于中国互联网内容平台发生的巨大变化。从早期的门户网站，到后来的贴吧、微博、UGC平台，再到今天的短视频、直播，带来了海量的内容供应。

仅字节跳动一家，就有今日头条、懂车帝、抖音、火山小视频、西瓜视频、好好学习、多闪、皮皮虾、番茄小说、半次元等多个需要大量内容审核员的平台。

同时，招聘网站信息显示，一些招聘、社交、房屋中介等公司，也需要大量的内容审核员。

暨南大学新闻与传播学院教授彭伟步向南方周末记者分析，海量信息的出现、监管力度的持续加深，再加上没有一个完善的审核制度和相关法律，内容平台有时无法把握政策的底线，这些都在无形中增加了平台方的成本。

已经有一些第三方公司开始提供辅助内容审核的产品和服务，如象优图、网易易盾、图普科技、阿里绿网等多个产品，都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都使用这些第三方服务。

也有一些公司在探索将内容审核服务进行产业化。2019年4月4日，人民网（603000.SH）发布公告称，拟与人民日报社签署《地方频道内容审读协议》，约定审读费按照每家地方频道人民币50万/年计算，2018年度总金额为人民币1600万元。

在2019年1月31日发布的2018年业绩公告中，人民网也表示，业绩增长的一个主要原因是第三方内容审核业务呈现增长趋势，收入同比增长了166%。

根据人民网的公告，他们将内容审核业务称为内容风控业务，该业务是人民网四大业务之一，并且是重点发力的项目。人民网称，内容风控行业是一个新兴的领域，他们希望在未来把内容风控定义为一个新的职业。

一点资讯济南运营中心负责人白娜也向南方周末记者介绍，他们的团队目前也在承接其他公司的内容审核、生态流量方面的工作。

人海战术

也许人工智能、大数据会帮助互联网公司过滤掉一些违规内容，但大部分内容涉审核工作依然需要依靠人海战术。

“现在还没有办法完全取代人工。”一点资讯济南内容运营中心负责人白娜向南方周末记者直言，“机器上设置一些关键词、特殊日期数字，但是如果在不同的新闻中出现了这些关键词、特殊日期怎么办？总不能全部过滤掉吧。”

与此同时，各大平台公司的审核标准也各有不同，没有统一的标准。标准的高低，在一定程度上也塑造了平台公司的形象。

在一些传统媒体的网站、APP上，很少能够看到低俗、露骨的内容、评论，而在抖音、快手、

今日头条等流量为王的平台上，则会出现此类信息。

白娜向南方周末记者介绍，一点资讯虽然是一家市场化的内容平台，但是他们的股东有政府背景，在内容审核上把控相对严格。2018年，他们内部曾经出了一本内容审核的白皮书，并且到国家网信办备案，他们希望这本白皮书能够为内容审核行业的标杆。

多位字节跳动的审核员则向南方周末记者介绍，在他们内部，不同的小组也会有不同的审核标准，不过由于签署了保密协议，他们不能提供标准的更多细节。

“每隔几天就会进行一次培训，强调内容审核的红线。”一位字节跳动的内容审核员告诉南方周末记者。

据字节跳动的陈鹏介绍，他们公司会对内容审核员有一套考核制度，比如，如果审核员将本应该卡掉的信息通过了，或者将本应该通过的信息卡住了，这种错误率将会成为对审核员考核的一个重要标准。

在审核程序上，各公司也有不同之处，一点资讯上的内容一般要经过三道审核：第一道是机器，根据关键词过滤掉一部分；第二道则是人工审核，两个审核员对一条内容进行审核，两个人都通过了，则这条内容得以上线，有一个审核员觉得有问题，则进入到三审；三审有一个内容审核员，最终决定这条内容是否上线。

抖音、今日头条则分为众多小组，比如国内、国外、政治、娱乐、视频、文字等多个小组，也会根据业务线进行分配，比如问答组、微头条组等，每个小组负责不同的内容审核。

“一天要看一千篇文章，工作时间长了就会觉得，这并不是一件多难的事情，现在给我一篇两千字的文章，几十秒钟我就能看完，还能找出来问题。”刘蓉向南方周末记者介绍，长时间、高强度的内容审核工作已经把她锻炼成“火眼金睛”。

和很多生产线上的工人一样，内容审核员也是一个流动性非常强的工种。在一些招聘网站上，内容审核员的岗位几乎每天都在更新，在一些贴吧、QQ群里，也都有相关招聘信息。

一位在2018年5月应聘字节跳动内容审核员的人士向南方周末记者介绍，那个时候他们招聘规模大，招得也急，由于很多人都不愿意长期干下去，应聘者如果在面试时说上一句“愿意长期干下去”，面试通过率就会大大提高。

白娜向南方周末记者介绍，为了留住这些审核员，一点资讯采用的是公司直聘的模式，让审核员有更强的归属感。同时，一点资讯也会给内容审核员提供一个比较完整的内部晋升机制和转岗机制。

2018年9月，专科毕业的刘蓉就在一点资讯内部转岗，成为了一名本地新闻的运营人员，负责给新闻报道起标题、写摘要、推送等。

字节跳动在不同城市采用的招聘模式不同。比如在天津，以直聘为主，公司也提供内部转岗。一位在2016年加入今日头条天津分公司的人就向南方周末记者介绍，他们做了一年多的内容审核员之后，就调成了运营岗。

不过，在济南，字节跳动则主要以第三方公司代理招聘为主。承担他们招聘工作的公司是武汉人瑞人力资源服务有限公司，内容审核员与这家公司签署劳务合同。目前，字节跳动自己的公司也已经开始自己招聘，他们在济南专门成立了济南超准信息技术有限公司，不少新的内容审核员就直接由这家公司招聘进来。